霍金认为人工智能可能终结人类文明，其他科学家怎么看？

2018年3月14日，现代最伟大的物理学家之一——史蒂芬·霍金去世，享年76岁。终其一生，他除了致力于宇宙论和黑洞研究，也出现在各种场合，为所有关切人类命运的主题发声。而在他去世前的几年，霍金最关注的话题之一便是：警惕人工智能。在他逝世的日子，我们分享一篇德国作者彼得·格拉泽最新撰写的关于人工智能的文章《给出答案的那位：关于人类与机器之间不可逾越的界限》，以期将对于人类命运的探讨继续进行下去。

人工智能 | 图片（局部）：© Adobe

英国控制论理论家凯文·渥维克（Kevin Warwick）1997年撰写了一部《机器的长征》，这本书以未来的一幕幽暗情景作为开端。渥维克认为，到21世纪中期，人类会被人工智能网络以及超越人类的机器人所控制，对机器人来说，人类最多就是一个可能干扰到系统运作的物种。

就像人类发现自己起源于猴子而感到十分羞愧，机器会不会有朝一日因为是被人类所创造而感到难为情呢？美国人工智能领袖爱德华·费根鲍姆（Edward Feigenbaum）在20世纪80年代描绘得未来图书馆的情景，书与书之间可以进行交流并借此自行增加知识储备。他的同事马文·闵斯基（Marvin Minsky）评价：“我们有可能成为机器的家庭宠物。”1956年，闵斯基参与举办新罕布什尔州达特茅斯学院的会议，并在这次会议上首次提出“人工智能”这个概念。

人们对通过计算机扩展智能一事怀抱着极大的期待，认为不久以后可以用电脑来解决各种问题。这样的愿景大部分都落空，或者是在几十年后只在非常有限的领域如象棋、模式识别方面得以实现。但近年来的技术进步给智能研究带来迅猛的发展。新的储存技术、功能越发强大的超级电脑、处理海量数据的新数据库方案、大型网络技术集团的百万级投资以及各国之间通过“算法优势”争霸世界的竞赛，都让人们对人工智能再度开始恐惧。

目前我们还是把机器当成宠物。会不会又朝一日倒过来？ |图片（局部）： ©picture alliance/ dpa专题服务/安德烈亚·瓦内克

2014年5月，四位著名的科学家——物理学诺贝尔奖获得者弗朗克·韦尔切克（Frank Wilczek），宇宙学家马克斯·泰格马克（Max Tegmark），计算机科学家斯图尔特·罗素（Stuart Russel），以及当今世界大概最为著名的物理学家斯蒂芬·霍金（Stephen Hawking）——在英国《独立报》发出呼吁，警告人们不要简单地把机器智能仅仅当成科学幻想，“对人类而言，强大的人工智能技术的崛起可谓是最伟大的事件 ，但可惜，人工智能也有可能是人类文明史的终结，除非我们学会如何规避风险。”

20世纪90年代的史蒂芬·霍金 | © wikipedia.org

人类的毁灭？

显然，人工智能研究是一个被男性垄断的行业，他们之所以如此雄心勃勃地想要创造生命，可能是“阴茎羡妒”的反面所驱使，我们称之为“生育羡妒”。那是一种不可抑制的欲望，自地球生命产生以来，4亿年的生物进化历程一再创造出越来越精妙的物种，而人类雄性不仅仅想要创造出一种与生物平级的计算机原创产物，而且欲求创造一种超越人类，并把人类降级为猴子与最新创造技术辉煌成就之间的过渡物种。

这样的愿景被称为“硬人工智能”，其观念基础，是认为所有的人类功能都能够电脑化，尤其笃信人脑有着电脑一样的运作方式。各种提醒防范机器袭击人类的言论全都涉及一个焦点问题，那就是孤立的奇点。从这一刻起，机器开始自行自我完善，其功能将会爆炸式增长。警告者陷入恐惧，担心这些超级机器一旦被启动，将会研发出其特有的精神核心，成为一个智能的自我。

自主的器物可能毁灭人类，这种担忧由来已久。这一方面与恐惧有关，另一方面又源于一种希望，渴望没有生命的物质能够借着魔力获得生命。古埃及人给逝者配备小陶人作为陪葬—— 这些陶人名为Uschebtis，意为“给出答案的人”——，它们将在阴间为逝者劳动。由此历史上第一次出现了发明计算机的想法：计算机可以给出答案，可以执行所有的命令。陶人身上写着的指令与现代计算机程序的算法序列有着惊人的相似：

魔法小偶人，你听我说

如果有人叫我去劳动……

你知道，你将代替我

阴间的守卫者安排你

去田间播种

给运河注水

铲沙……

结尾处刻有：

我在此听从命令。

古典时代“给出答案的人”：埃及的能够在阴间劳动的陪葬品| 图片（局部）：© picture alliance/akg/Steffens图片库

这样的指令，今天我们称之为“对话型使用指示”，而古埃及人认为使用魔咒即能让陶人获得生命的信念，我们则称之为迷信。这样的迷信在今天看来有另一层意义。“硬人工智能”的代表者深信，有朝一日计算机也会以某种方式形成一种活的意识。他们遵循一种假设，认为思考可以简化为信息处理，不受信息携带者材质的影响，因而人类大脑并非必须，人类的精神同样可以输入电脑。对于2016年1月去世的马文·闵斯基来说，人工智能实际上是在摆脱死亡的一种谋略。

机器自我的幻像

麻省理工学院的计算机科学家约瑟夫·维森鲍姆（Joseph Weizenbaum）1965年编写了一个名为“ELIZA”的计算机程序，一种可以交流的书写系统。维森鲍姆把ELIZA定位成一位和咨询者交谈的心理治疗师。当咨询者输入一行“我妈妈很奇怪”的文字时，电脑就会问“她这样有多长时间了？”机器在此苏醒了吗？是什么在跟我们说话？就好像计算机内在发展出自己特有的、非常类似于人类的精神内核。

在这之前，机器只能表达非个人的信号——如“油压降低”，“系统障碍”。维森鲍姆惊讶地发现，和ELIZA交谈的人在很短的时间内就会跟这个披着“算法外衣”的机器建立起一种情感联系。维森鲍姆的女秘书测试这个程序时，很快就请求维森鲍姆离开房间，因为她向计算机坦白了个人的私密信息。不过一个受程序员控制、会说“我”的机器还远远不具备真实的自我。

把大脑形容成计算机是一个现代的比喻，它跟真正的大脑科学、人类智能或者自我没有关系。起初人类认为自己是泥土所制，上帝对其吹了一口气把他的精神赋予人类。后来，“体液模式”盛行起来，它认为人类的身体与精神运作依赖于体内液体的流动。16世纪发明了由弹簧及驱动装置组成的自动机器，法国哲学家笛卡尔（René Descartes）因此认为人类是一部复杂的机器。19世纪德国物理学家赫尔曼·冯·亥姆霍兹（Hermann von Helmholtz）把人脑比作电报机。数学家约翰·冯·诺伊曼（John von Neumann）发现人类神经系统的功能是数字化的，持续发现当时的计算机部件与人脑构成部件有很多对等之处。但从未有人在人脑里发现过与计算机数据储存库运作哪怕有些许类似的人脑储存库。

人工智能领域的研究者反而很少担心会出现一种权力欲望膨胀的超级智能。“整个行业都还远远没有能力发明出引起社会不安的东西”，人工智能公司Vicarious的创始人迪利普·乔治（Dileep George）说，“作为研究人员，我们有义务向大众说明好莱坞与现实之间的区别。”

https://v.qq.com/txp/iframe/player.html?vid=n0503n777c9&width=500&height=375&auto=0拥有公民权的机器：类人型机器人索菲亚可以谈话，表达感情，是第一个拥有国籍的机器人。沙特阿拉伯2017年底承认其具有法律地位。

Vicarious集资5千万美元，其中包括马克·扎克伯格（Mark Zuckerberg）和杰夫·贝索斯（Jeff Bezos）的投资，研究开发一种能够媲美人脑感知系统的算法，做法极具野心。当今电脑使用的最大的人工神经网络具有一亿个交换线路，数量是几年前的一千倍。但和人脑相比，仍旧是微小得不值一提，只等同于一立方毫米的脑组织。在断层扫描上，它比一个体素还小，体素相当于三维空间的像素。

人工智能遇到的核心问题是世界的复杂性。为了应对世界的复杂，人在出生的时候已经具备生物进化带来的种种潜能，人具有感官，具有保证生存的条件反射，最重要的大概是人具有强效的学习机制，可以及时自我调整，以便更好地与外界互动，即使当今的世界跟祖先时代相比已经面目全非了。

计算机连数到2都不会，只知道0和1，它能使出的看家本事是愚蠢与速度的结合，此外大概还有定律，即所谓的启发法，以及大量高等数学（神经网络）。而要基本理解大脑如何启动人类智能，我们需要知道的不仅仅是所有860亿神经元当前的状态，100万亿的神经元连接，神经元连接的不同强度，存在于每个神经元连接交叉点的1000多种蛋白质的状况，而且还要知道大脑当下的运作如何促成全部大脑神经组织的整体结合。除此之外，还要明白每个大脑的独特性，每个人特有的人生经历造就其独一无二的大脑。

原标题：《人工智能：给出答案的那位——关于人类与机器之间不可逾越的界限》

作者：彼得·格拉泽（Peter Glaser），作家，记者，混沌计算机俱乐部（Chaos Computer Clubs）的荣誉成员。

翻译：高虹

点击“阅读原文”，浏览歌德在线杂志更多精彩文章。